生成式推荐排序中的隐式残差推理
🧭 生成式推荐 · 隐式残差推理排序 ★ 深度解读
University of Science and Technology of China · Meituan · Renmin University of China · The Hong Kong Polytechnic University · Academy of Cyber
提出 Refiner 框架，用残差分数修正、历史查询和 LoRA 适配，在不重训基座的前提下增强生成式排序
📌 工作参考价值（4 点）
- 工程架构：对已部署排序模型做推理增强，不需要全量重训。冻结 base model，只加 LoRA 到 Transformer 和一个独立 reasoning prediction head；日级更新时加载最新 base checkpoint，同时继承上一日 Refiner 参数，只更新新增参数，适合渐进上线。
- 输入与 mask 设计：每个候选分配独立 reasoning token，autoregressive 地从上一轮 hidden state 提取；history queries 从用户行为序列尾部取 2-4 个位置作为全局上下文。候选 mask 必须保持候选间隔离，只允许访问自己的前序 reasoning token。
- 训练目标：残差修正 + MSE 监督累计分数，比每步用 BCE 重新预测完整分数更有效；推理步数 1-2 步性价比最高，更多步边际收益快速衰减。
- 业务收益：工业 A/B 在 PV-CTR +0.75%、GMV +0.46%，且对长历史用户、冷启动/低频 item 增益更明显；有类似困难样本的业务可优先尝试。
OneLatent：面向高效基础推荐模型的潜在推理框架
🧭 生成式推荐 · Latent Reasoning ★ 深度解读
Kuaishou Technology
用可学习潜在 token 压缩显式 CoT 推理，实现 Latent-Reason-then-Answer，精度与吞吐双提升
📌 工作参考价值（4 点）
- 用固定数量的可学习 latent tokens 替代显式 rationale 生成：在用户上下文和目标 SID 之间插入 2-3 个 latent token，训练时用教师 CoT 对齐，推理时只解码目标 item，可将 LLM 推荐的吞吐提升 17 倍以上且精度不降；适合在需要低延迟的生成式召回或重排中落地。
- Multi-View Adaptive CoT 构造互补监督：设计意图探索、正样本评估、行为归因三个视角，并让教师根据用户行为复杂度自适应输出推理长度，相比单一模板能覆盖更多样兴趣且减少 35% 冗余；这套 CoT 数据构造思路可直接迁移到 query 推荐、广告文案生成等场景。
- 三阶段对齐 + 课程后训练：先 rationale 对齐，再 SID 对齐，最后混合 latent/standard SFT 1:1，能同时保留直接生成和 latent 推理两种模式，避免显式 CoT 训练损害通用能力；适合渐进式上线 LLM 推荐。
- 生产推理架构：行为触发异步刷新、价值感知调度、结果缓存 Redis，将大模型推理移出在线请求路径，只在候选融合时消费缓存结果；这是把 LLM 推荐落地到高 QPS 电商/广告场景的可行工程范式，可直接参考。
ToM2Vec：用于多智能体协调的连续心智理论令牌
🧭 多智能体协作 · 潜空间 ToM 推理
UNC Chapel Hill · Cisco · The University of Texas at Austin
用固定预算连续推理 token 在潜空间建模伙伴心智状态，提升多智能体协作且 latent 推理优于文本表达
📌 工作参考价值（4 点）
- 多智能体业务（如买家/卖家/客服协商、库存分配）中，为每个 agent 引入固定数量可学习连续 token 专门编码对对方意图、偏好、不确定性的后验，代替显式文本猜测，可减少长 CoT 占用且提高对多意图的覆盖；工程实现类似可生成的 soft prompt，可作为后续 action/出价的条件输入。
- 训练信号采用“对方实际想法”而非仅行为奖励，可蒸馏出可解耦的心智表征；电商场景可从用户会话后续行为、点击序列中构造隐式意图监督，学习 latent intent token，用于 query 改写、个性化召回和排序。
- 关键结论：连续 latent 推理在需要表达分布/不确定性时优于文本表达；如果你在做谈判、动态定价、用户意图预测等任务，可尝试用可学习向量状态替代显式文本“思考”步骤，减少 token 消耗，同时保留熵。
- 跨模型泛化结果（训练模型与未见闭源模型协作仍有效）说明：可在自有开源模型上训练 ToM token，再作为与 GPT 等闭源 API 协作的 conditioning 信号，无需访问对方内部状态，适合异构 Agent 系统。
潜在空间判定：语义保持压缩实现高效生成式奖励模型
🧭 生成式奖励模型 · 潜在推理压缩
Soochow University · University of Cambridge · Chalmers University of Technology · Peking University · Tsinghua University
LatentGRM 用语义分块与压缩替代逐 token 评估，在保持判断质量下将推理耗时降低 6-7 倍
📌 工作参考价值（4 点）
- 在电商/广告场景中用 LLM-as-a-judge 做数据筛选、候选评分或 A/B 评测时，可借鉴 LatentGRM 的思路：对多准则评价过程做语义分块与压缩，不逐 token 展开文本，而用连续潜在轨迹完成判断，能显著降低推理成本。
- 其 rubric-guided 压缩方式可迁移到「相关性+广告质量+商品匹配」等多维度评估 prompt：按准则边界压缩关键语义段，保留任务相关的偏好信息，避免生成冗长解释。
- vote@k 场景下节省明显：LatentGRM-8B 在 vote@5 时总推理时间降低 6.1-7.0 倍，适合批量生成候选排序信号时的成本控制。
- 独立解释器从潜在轨迹重建评估文本，提供离线可审计性：生产环境若需追溯 LLM 判断依据，可在不增加在线成本的前提下抽样重建解释。
Latent JEPA：面向化学推理的抽象未来预测
🧭 潜在推理 · 联合嵌入预测
School of Data Science, The Chinese University of Hong Kong, Shenzhen · Shanghai Artificial Intelligence Laboratory
提出 Latent JEPA，在自回归学习中引入未来视图联合嵌入预测，提升化学推理与分子优化
📌 工作参考价值（4 点）
- 在 Agent 或搜索推荐场景中，可以训练一个连续 latent state 预测未来结果（点击、转化、下一步状态），作为辅助目标，而不要求逐字生成中间推理，降低 token 消耗并提升长期决策表征。
- 使用 joint embedding prediction 对齐当前 latent 表示与未来视图表示，可作为 LLM 微调的 regularizer，让模型对最终业务指标更敏感，适合电商场景中直接优化 GMV、留存等隐式目标。
- 多视图预测设计可以借鉴：同时预测后续文本（如用户下一步查询）和结构化结果（如商品 Semantic ID 或属性），在隐空间建立从意图到结果的映射，提升生成式推荐的一致性。
- 工程实现上，避免完整 CoT 显式生成，用 latent thought 预测未来视图，可在线上低延迟约束下保留规划能力，适合实时推荐或对话式购物助手。
MoLE：互补视觉推理的潜在专家混合
🧭 视觉推理 · 潜在专家混合
Tongji University, China · Hong Kong Polytechnic University, Hong Kong · Alibaba Group, China · University of Electronic Science and Technology of China, China
用潜在专家混合让不同 latent token 提取互补视觉证据，在相同 latent 预算下显著提升视觉推理
📌 工作参考价值（4 点）
- 在多模态商品理解/搜索中，若用 latent token 做视觉推理，避免让多个 token 共享 value projection；可给每个 latent expert 独立 routing/value，迫使它们提取互补视觉证据，减少冗余。
- 两阶段训练可直接复用：先强制视觉证据走 latent pathway 学习专业化表示，再恢复 direct visual access，无需预定义专家角色或中间视觉标签，适合业务多模态 VLM 微调。
- latent summary experts 聚合互补表征，能在固定 latent budget 下提升推理性能，适合多图/多区域商品理解等需要控制计算成本的场景。
- 用 latent-state similarity 和 attention diversity 作为诊断指标，评估多专家或多模态融合是否真正学到互补信息，有助于排查模型冗余。
Schema 锚定潜在推理用于知识库问答语义解析
🧭 LLM 潜在推理 · 知识库问答语义解析
Institute of Automation, Chinese Academy of Sciences · Institute of Computing Technology, Chinese Academy of Sciences · University of Chinese Academy of Sciences
在 LLM 隐藏状态进行连续潜在思维，通过 schema codebook 对齐与反馈延迟离散决策，提升 KBQA 语义解析组合问题性能
📌 工作参考价值（3 点）
- 对于需要多步生成结构化输出的任务（如商品筛选、广告定向、query 改写），可以把连续潜在状态作为中间表示，避免在每个推理步过早离散选择类目/属性/Semantic ID，降低错误传播。可在 Transformer 中引入专门 reasoning steps，训练时对齐真实结构化标签。
- 从已有的 query-结构化目标成对数据（query-LF、query-商品条件）自动构造中间对齐信号，类似 schema traces，无需人工推理轨迹标注，用于训练 codebook 或离散 tokenizer，将连续表示映射到业务 schema（类目体系、属性值、行为事件）。
- 在 LLM Agent 多工具调用之间维护潜在状态，延迟提交工具参数，并用可学习 codebook 将潜在状态对齐到工具 schema 可提升复杂任务规划成功率。工程上可固定 LLM 主干，仅训练 codebook 和投影层，实现低成本落地。
A*-Thought-V2：基于 LLM 几何动力学的高效隐式推理
🧭 LLM 推理加速 · 隐式 CoT 压缩
Beijing University of Posts and Telecommunications · The Hong Kong Polytechnic University · Tsinghua University · JIUTIAN Research · OpenBMB
用 hidden state 几何方向判断 CoT 步骤价值，对齐步骤显式保留、偏离步骤压缩为 latent token，提升精度与效率
📌 工作参考价值（4 点）
- 在电商/Agent 的 LLM 推理链路中，可借鉴「几何对齐」做步骤级压缩：对商品推荐理由、query 改写、广告文案生成的 CoT，计算当前 step 到最终 answer 的 hidden state 夹角，保留小角度的直接执行步骤，把大角度的探索/校验步骤压缩为 latent token，降低 context 与 KV cache 占用。
- 训练侧可用 stepwise embedding forcing + label forcing：压缩冗余步骤时不丢弃信息，池化为单 embedding 并用 soft token distribution 监督，这比 hard truncation 更适合推荐/搜索中的行为序列、商品描述等中间信息压缩，能保留分布与多峰语义。
- 若业务要处理大规模 query/商品推理流水线，A*-Thought-V2 报告的训练成本下降（预处理 -94.6%、训练 -80.3%）和 Accuracy per Computation Unit 2.29x 可作为 ROI 参考；但需在 Qwen3.5/3.6 这类模型上复现验证，小模型或非推理任务迁移前要做适配。
- 表示分析结论：latent token 位置熵更高，soft target 提供更丰富特征学习——在生成式推荐里对 Semantic ID 或 item 描述序列做压缩时，可考虑不强制 hard one-hot，而保留软分布以 capture 多义性。
潜在对齐推理用于多模态推荐
🧭 多模态推荐 · VLM 潜在推理与双对齐 ★ 深度解读
Xiaohongshu Inc. · Nanjing University
提出 LARK 两阶段潜在推理框架，用视觉与推理文本双重对齐缓解多模态推荐中的跨模态稀释，在 Amazon 与工业数据集上一致超越 baseline
📌 工作参考价值（4 点）
- 离线 item encoder 部署：用 VLM 对商品图/文离线生成 embedding 并预存向量索引，线上只训练 DeepFM/LightGCN/SASRec 等轻量模型，把多模态推理成本完全移出 serving 路径；该论文在百万级商品上验证了此 decoupled 设计的可扩展性。
- 用 Swing 相似度构造 item-item 对比学习正样本，比随机负样本更符合电商协同信号，能显著提升长尾商品表示；已有 Swing 的电商场景可直接替换为 InfoNCE 的正样本源。
- 若业务需要在 VLM 内做多步推理，可采用 latent tokens + 双对齐：用 frozen vision encoder 做 patch-wise 对齐保留视觉信息，用 stop-gradient CoT hidden states 对齐保留推理语义；掩码图像 50% 可防过拟合像素级细节。
- 超参参考：latent token 总数 16（4 组×4）、损失权重 0.1、对比温度 0.07 在多个数据集稳健；3B 参数 VLM 即可超越 7B NoteLLM-2，说明结构设计比模型规模更关键。
Intern-S2-Mobius：知识存储与推理解耦的高效基础模型
🧭 LLM 架构 · 知识-推理解耦 ★ 深度解读
Shanghai AI Laboratory
通过全局共享 FFN 知识库与多 Reasoner 隐式迭代，实现同等精度下近 4 倍端到端推理加速
📌 工作参考价值（4 点）
- 解耦知识存储的思路可迁移到「LLM + 海量商品/内容知识」：把商品语义向量、属性知识放到全局共享 Memory 或 MoE 专家中，推荐/广告 Reasoner 按需检索；商品新增下架更像更新知识库，而非重训整套模型。
- 隐式 latent reasoning 值得在 query 推荐、广告文案生成、Agent 规划等长 CoT 成本高的场景探索：用连续隐状态迭代或蒸馏压缩显式 CoT，可显著降低 token 数、提升吞吐，但需在小任务上先验证精度损失。
- MoE 块状划分 FFN + 稀疏激活，为推荐大模型部署提供冷热分层思路：高频知识参数放 GPU，低频/长尾知识放 SSD 按需加载，降低显存压力。
- 该架构显示同等效果只需 Transformer 约 62.6% 的训练数据，对标注稀疏的电商任务有吸引力；但属基础架构改动，业务直接落地的工程成本较高。
抖音多模态嵌入：兼顾效率与细粒度的语义充分性学习
🧭 多模态检索 · 语义充分性 ★ 深度解读
ByteDance Douyin Search Multimodal Team · Renmin University of China GSAI
通过隐证据推理与跨条件重构，使 bi-encoder 嵌入兼具细粒度语义充分性，在 MMEB-v2 和抖音搜索中取得显著增益
📌 工作参考价值（4 点）
- 两阶段训练范式：第一阶段大规模异构对比学习建立统一多模态空间，第二阶段用高质量数据 + 教师监督做语义充分性微调，可直接迁移到电商多模态搜索（商品图文视频检索）的模型升级路径。
- 隐式证据推理：通过少量 anchor tokens 定位证据区域、类型化隐状态（localize/align/ reject）组织推理，完全在隐藏空间完成，不产生显式 CoT 文本，保持在线召回低延迟，可用于电商 query 理解中的隐式意图定位与证据提取。
- 跨条件重构监督：利用 NTP/MTP 让 query 嵌入解码商品文本，反之亦然，提供 token 级细粒度监督，可强化搜索相关性建模，尤其适合电商场景中 query 与商品详情之间语义细节的精确匹配。
- 语义充分性度量：通过 teacher forcing 的 Top‑K 准确率量化嵌入的信息完整性，可替代或补充传统召回指标，作为模型优化和迭代的可靠中间信号。
EvoReason：自演进推理基元引导的在线策略蒸馏用于生成式推荐潜在推理
🧭 生成式推荐·潜在推理·在线策略蒸馏 ★ 深度解读
Kuaishou Technology · Shenzhen University
提取可复用推理原语并自演进，引导结构化链式思考，通过在线蒸馏将推理能力迁移到潜在表示，实现高效生成式推荐。
📌 工作参考价值（4 点）
- 借鉴从 Agent 轨迹中诱导推理原语的方法，将复杂用户意图推理拆解为可复用的函数式工具（如偏好提取、冲突检测），提升 CoT 稳定性与可解释性，适用电商搜索推荐场景。
- 在线策略蒸馏机制可将大模型推理能力压缩进轻量潜在表示：通过置信门控过滤低质量监督，KV 缓存对齐将显式推理信息注入潜在空间，线上推理无需生成显式 CoT，延迟极低。
- 自演进原语库的设计支持根据线上反馈动态更新推理模式，适应电商促销、季节变化等分布迁移，无需全模型重训练。
- 教师与学生共享 backbone，训练时仅通过额外上下文增强，不引入额外参数，工程实现友好。
面向LLM推荐的层次化潜在推理框架HiLaR
🧭 生成式推荐 · 层次化隐式推理 ★ 深度解读
Xi'an Jiaotong-Liverpool University · Xiaohongshu · Peking University · Beijing Jiaotong University
HiLaR 用残差量化和时间窗口监督构建粗到细用户偏好，对齐LLM潜在状态并以过程奖励优化层级贡献，在Amazon数据集上超越SOTA。
📌 工作参考价值（4 点）
- 用户序列建模：借鉴时间窗口监督的残差量化，将用户历史按时间从远到近分层，构建从长期兴趣到短期意图的多粒度表示，可直接作为召回或排序阶段的特征。
- LLM推理结构化：在推荐Agent中，可让LLM的中间隐藏状态对齐预训练的层次化偏好向量，使推理轨迹具有粗到细的结构，便于诊断与解释。
- 过程奖励设计：利用下一物品预测的条件似然增益作为每步推理的奖励分量，结合GRPO优化多步潜在推理，为Agent的多步决策提供细粒度反馈，降低稀疏奖励问题。
- 协同信号融入：在生成式推荐中引入冻结协同模型（如SASRec）的偏好分数作为RL奖励，弥补纯语义匹配的不足，可直接用于电商搜索召回的生成式模型。
LaRec：释放大模型隐式推理能力的生成式推荐框架
🧭 生成式推荐 · 隐式推理与强化对齐 ★ 深度解读
University of Chinese Academy of Sciences · Xiaohongshu
通过步骤级对齐与过程方向对齐提供细粒度隐式监督，结合个性化高斯混合引导的 RL 探索，实现高效且多样的生成式推荐
📌 工作参考价值（4 点）
- 隐式推理的步级对齐迁移：用强LLM生成目标导向的CoT，将各步隐状态作为教师信号对比学习，可复用于电商搜索query理解、用户偏好挖掘等任务，用少量隐式token替代显式推理，显著降延迟。
- 过程方向对齐损失：约束隐状态演化方向逐步骤指向目标item语义向量，防止“语义空转”。此设计可直接用于生成式召回模型，提升多步推理的语义连贯性。
- 个性化锚定探索：基于用户历史交互物品嵌入构建高斯混合分布，采样作为初始隐状态扰动，有效限制RL探索范围，避免崩溃。适合需要可控多样性的广告文案生成、push推送选词等场景。
- 两阶段训练范式（预训练对齐 + GRPO RL微调）：复合奖励（命中+语义相似度）提供密集学习信号，对LLM-based推荐系统的多路径探索对齐具有工程参考价值。
RecGPT-V3：状态化混合模态推荐系统技术报告
🧭 生成式推荐 · SID · 记忆与效率优化 ★ 深度解读
Taobao
通过记忆中心、混合模态SID和潜在推理，线上IPV+1.28%、CTR+1.00%、GMV+3.97%，成本降52.4%
📌 工作参考价值（4 点）
- 用户记忆压缩与增量更新：用 LLM 将用户长期行为压成结构化记忆单元（行为模式+偏好摘要），每两个月增量更新一次；线上推理时只输入压缩记忆+近期行为 delta，用户建模计算降低 55.8%。可直接迁移到电商用户画像存储与动态更新，避免每次请求重读全量行为。
- 混合模态 SID 打通意图到物品的管道：通过多模态对比学习 + RQ-VAE 为每个物品生成两层 Semantic ID（65K 词表），作为第二模态注入 LLM 词汇表，与文本联合训练。模型直接输出 SID 而非粗糙标签，大大降低信息瓶颈，让召回更精准。适合将物品侧协同信号与语义理解结合。
- 潜在推理替代显式 CoT 降本增效：用最多 10 个可学习潜在 token 替代平均 ~3K 的显式思维链，通过多粒度掩码重构训练保持推理能力，同时输出可解码回可读文本保障可解释性。输出 token 成本降 200 倍，特别适合高 QPS 线上场景。
- RLRF 让离线训练对齐线上目标：用线上排序模型 top-100 的平均 CTR Score 作为强化学习奖励，替代稀疏的 HitRate 奖励，使模型直接优化业务指标，且与在线 pipeline 一致。可复制到其他场景将离线代理目标改为线上可观测的业务信号。
T2MLR：带时序中层循环的 Transformer
🧭 中层时序循环增强Transformer隐式推理
Princeton University · Princeton Language and Intelligence
在Transformer中层引入跨时间步的隐状态循环，缓解自回归信息瓶颈，提升推理性能
📌 工作参考价值（4 点）
- 可将中层循环引入现有LLM，通过微调提升多步推理任务性能，无需重新预训练，适合在已有Agent系统中以低成本增强模型推理能力。
- 局部循环设计（仅对20%的中间层做递归）既有效又轻量，可作为工程优化思路：在微调大模型时只改装关键的中间层块，减少额外计算开销。
- 隐状态跨步传递的机制可借鉴到需要跨轮次保持中间运算状态的应用，如对话Agent的长期上下文理解、多轮谈判策略规划等。
- 实验表明，改装1.7B模型并微调即可大幅提升数学推理，该方法也可尝试用于电商搜索中的复杂意图解析或多条件过滤推理。
递归推理隐兴趣的序列推荐
🧭 序列推荐 · 隐兴趣递归推理
解耦推理与预测，用兴趣压缩和递归推理模块在隐空间逐步精炼，深度可调且无需RL
📌 工作参考价值（4 点）
- Context Compressor 将用户序列压缩为多个隐兴趣向量，配合 Interest Diversity Regularizer 迫使各兴趣捕获不同行为侧面，可直接作为电商多兴趣召回或用户理解模块
- Recursive Reasoner 在独立的隐空间对兴趣进行递归式精炼，这种“逐步思考”的范式可用于带货直播、购物车序列等长序列场景，捕捉演化意图
- 推理深度可动态调节：线上可根据 latency 预算自由选择递归步数，浅层做低延迟预测，深层提升准确率，无需重新训练模型
- 框架完全监督化，无 RL 训练负担，工程实现简单；解耦的设计让 Backbone、Compressor、Reasoner 可单独替换或蒸馏，便于在已有推荐系统上增量叠加推理能力
基于信息增益的推理预算分配优化语义ID生成式推荐
🧭 生成式推荐 · 语义ID · 推理预算分配
按语义ID位置的信息增益自适应分配推理计算量，实现精度与效率平衡
📌 工作参考价值（4 点）
- 生成式推荐推理时，可按语义ID位置的信息增益分配latent refinement步数：早期token（如类目层级）增益高，多分配计算；后期token增益低，少分配，总体节省计算量。
- 在实际部署中，可离线统计不同位置token的信息增益，或在线上动态学习分配策略，平衡推理延迟与精度。
- 方法轻量，不改变模型结构，仅调整推理时的迭代步数，易于在已有生成式推荐框架上实现。
- 思路可拓展至其他序列生成任务（如搜索query建议），对重要token分配更多计算资源。
直觉引导的潜在推理用于大语言模型推荐
🧭 生成式推荐 · 潜在推理直觉引导 ★ 深度解读
Beihang University · University of Science and Technology of China · The Chinese University of Hong Kong · National University of Singapore · Meta AI
提出 IntuRec，通过 top-K 候选集构建推荐直觉，注入推理起始点，大幅提升 LLM 潜在推荐推理的准确性和效率
📌 工作参考价值（4 点）
- 可用 top-K 候选集约束 LLM 潜在推理的起始点：先在 ISE 阶段用标准的 next-token loss 训练 LLM 生成候选，再用 beam search 产出离线候选集，作为“直觉”源——这套流程可直接嵌入现有的生成式推荐管线，提升推理起始点的语义匹配度。
- TACB（目标感知候选平衡）可复用：训练时按验证集正样本覆盖率动态调整候选集中目标物品的保留概率，能有效防止捷径学习，维持训练-评测分布一致，适合迁移到所有需要从候选池中学习偏好表征的场景。
- IDAE 双注意力编码器设计值得借鉴：对每个候选物品独立做 self-attention 提取物品级表示，再用 cross-attention 以初始状态作为 query 融合历史信息，生成直觉嵌入——这种结构可应用于精排或召回链路，用轻量 attention 融合候选与用户历史，生成高质量起始向量。
- BPR 直觉对齐损失提供了一种偏好信号注入方式：强制直觉嵌入比负例更靠近目标物品嵌入，可在不增加标签成本的情况下为隐空间推理提供监督，尤其适合在缺乏显式反馈时，对齐候选与用户真实偏好。
ReaEmb：隐式推理增强与协作奖励强化学习的两阶段LLM嵌入生成框架
🧭 LLM生成式推荐Embedding · 隐式推理+RL协作注入 ★ 深度解读
西安交通大学
通过隐式推理增强对比学习与协同奖励强化学习，让LLM生成的物品嵌入同时捕获深层语义和共现关系，提升序列推荐效果。
📌 工作参考价值（5 点）
- 两阶段核心理念可复现：先做语义增强（隐式推理+对比学习），再做协同信号注入（RL奖励优化），解耦训练，可在自己的LLM推荐embedding场景中直接参照。
- 隐式推理token的轻量化设计：仅增加一个轻量attention模块生成多个推理token，然后送入LLM二次前向得到embedding，训练和推理成本低，可离线缓存。适用于需要LLM理解物品属性多义的电商场景（如商品标题、品类、品牌组合）。
- 基于共现的奖励函数简单有效：用互作用序列统计物品共现次数，设计奖励让高共现物品对嵌入更近，无需昂贵的标注或用户反馈。这直接对标推荐系统中的协同过滤思想，可快速应用到广告或推荐系统的物品向量生成。
- RL的batch级优势估计稳定训练：舍弃组内归一化，改用噪声-free样本的batch均值作基线，解决了噪声扰动下的训练震荡，该trick可移植到其他RL优化embedding的场景。
- 长尾与热门兼顾：实验表明，该方法在整体和长尾推荐上都显著优于现有LLM2Emb、LLM2Vec等方法，且不同LLM架构（Qwen、Llama）下均可稳定提升，适合处理物品冷启动问题。
基于类别引导的潜在意图推理：电商生成式检索的桥接语义鸿沟
🧭 生成式推荐 · 潜在推理 · 类别层级 ★ 深度解读
Beihang University · Meituan · Renmin University of China · Beijing Information Science and Technology University
CaLIR 利用产品类别层级在连续空间进行潜在意图推理，避免显式 CoT 的延迟，高效桥接查询与语义 ID 的鸿沟。
📌 工作参考价值（4 点）
- 用产品类别层级做生成式检索的隐式推理脚手架：在电商场景中，可直接复用现有的多级类目体系，将解码器隐藏状态逐层对齐到类目，替代显式思维链，大幅降低线上延迟。
- 多正例对比学习处理多意图查询：电商查询常对应多个有效类目，使用 Multi-Positive InfoNCE 损失，让查询的潜在状态同时靠近所有相关类目原型，提升意图覆盖与鲁棒性。
- 动态装配类别级前缀树约束解码：线下按类目预建语义 ID 前缀 Trie，线上根据推理出的 Top-K 类目动态合并，缩小搜索空间，提高解码准确率且几乎不增加在线开销。
- 粗到细的潜在推理无需显式解码步：插入固定数量的连续隐状态滑动推理（L 步），不产生额外 token，只在 beam search 前一次性计算，批量处理后与编码器状态拼接用于后续解码，适用于低延迟电商搜索。
基于归一化流的潜在推理框架 NF-CoT
🧭 潜在推理 · 归一化流 · 连续思维
University of Pennsylvania · UC San Diego · Meta
用归一化流建模连续潜在思维，保留自回归生成、精确似然与 KV 缓存，提升代码生成并降低推理成本
📌 工作参考价值（4 点）
- 压缩中间推理，减少 token 开销：将部分思考步骤表达为紧凑的连续向量而非文本 token，在需要长推理链的任务中可显著降低 API 调用成本或推理延迟，适合电商客服、推荐解释生成等对延迟和成本敏感的场景。
- 保留左到右自回归与 KV-cache 兼容性：NF-CoT 的连续思维嵌入原语言模型的因果流，不影响标准推理加速技术，可直接部署到现有 LLM 推理服务中，无需特殊工程改造。
- 连续空间概率建模支持策略梯度优化：提供精确的似然估计，可在连续思维空间上直接进行 RL 微调，为 agent 工具调用推理或推荐策略学习提供更细粒度的优化信号。
- 连续思维可蒸馏自显式 CoT：能够将繁琐的文本推理链压缩成连续表示，未来可用于压缩电商中的长对话历史或复杂推荐逻辑，作为高效上下文注入后续生成。
先想象再预测：交错潜空间视觉推理用于视频事件预测
🧭 多模态推理 · 潜空间视觉预测
Shanghai AI Laboratory · University of Science and Technology of China · City University of Hong Kong · Nanjing University · Fudan University
通过交错生成语言与连续视觉潜空间片段，保留细粒度动态线索，大幅提升视频MLLM的未来事件预测精度
📌 工作参考价值（4 点）
- 多模态推荐场景（如直播带货、短视频电商）中，对用户行为或交互序列的预测可借鉴潜空间视觉推理，避免过早文本化损失动态姿态、几何关系等细粒度信息。
- 生成式推荐或Agent规划可引入交替生成语言token与连续视觉潜状态的方式，提升对未来场景的连续预测能力；特别是商品搭配、虚拟试穿等任务，保留视觉中间态可能减少幻觉。
- 使用RL优化采样得到的潜空间轨迹（LA-DAPO），结合结果对比奖励和时间多样性奖励，可迁移到对话式Agent或多步推荐策略中，用来微调生成路径的质量。
- 训练数据筛选策略——“选择未来视觉线索对预测有帮助的样本”——可类比推荐中挖掘对用户意图跳转有强信号的交互片段，用于训练预测模型。
潜在推理何时有效？MeRa：用度量空间偏差提升空间预测
🧭 序列推荐 · 隐式推理约束
Fudan University
证明隐式推理在空间预测中需度量空间偏差约束，否则有害；提出即插即用MeRa模块，实现显著提升
📌 工作参考价值（4 点）
- 在序列推荐中引入迭代推理模块时，必须对齐任务先验结构（如空间距离），否则可能退化；电商推荐中，若用户轨迹有地理或时空模式，应加入类似的度量偏差。
- MeRa的轻量级即插即用设计可直接嵌入现有推荐系统的 encoder 与预测头之间，仅需 pairwise 距离信息，为快速增强模型推理能力提供工程范本。
- 度量空间偏差保证了迭代推理的收敛性和表达性，可推广至任何具有距离或相似度度量的推荐场景（如用户-物品图、商品 embedding 空间），利用语义距离构建类似约束。
- CLEVR 实验表明欧氏距离偏差在非地理场景也有效，可在商品序列建模中尝试对 item embedding 施加距离偏差，提升多步预测。
ATLAS：一个词同时实现Agentic与潜在视觉推理
🧭 视觉推理 · 功能token
用单一离散功能token统一agentic操作与潜在视觉推理，无需视觉监督，兼容标准训练
📌 工作参考价值（4 点）
- 功能token设计思路：在多模态对话或视觉Agent中，可将复杂视觉操作封装为离散token，避免生成中间图像，大幅降低计算开销。
- LA-GRPO训练技巧：当行为token稀疏时，用静态加权的辅助目标锚定功能token，可稳定强化学习训练，适合电商Agent中稀疏动作（如工具调用）的场景。
- 兼容性优势：功能token保持标准词表内，无需修改模型架构或训练流程，可直接融入现有LLM SFT和RL管线，工程移植成本低。
- 可解释性增强：功能token为内部操作提供明确语义锚点，便于业务中审计Agent决策路径，提升系统透明度。